An Exam for Active Observers
主动观察者考试:多模态大模型视觉闭环感知评测
🧭 多模态模型主动视觉评估基准
University of Southern California
提出 ActiveVision 基准,发现前沿多模态模型在需要多次视觉交互的任务上近乎失败,与人类差距悬殊
📌 工作参考价值(3 点)
- 若业务中存在需要反复视觉确认的任务(如商品瑕疵检测、图像合规审核),可借鉴 ActiveVision 的任务设计,自建测试集评估内部多模态模型的主动观察能力,避免将单次前向的准确率等同于真实可用性。
- 使用多模态 Agent 执行复杂图像分析时,不应假设模型能自主重看或验证;工程上可考虑强制多步交互(如分区域截图、用目标检测器先提取候选区域再提问),以弥补被动视觉的缺陷。
- 该基准中模型生成视觉代码但仍失败的实验提示:在涉及视觉的任务里轻易让模型“写代码分析”可能不可靠,需确保代码执行环境的可干预性和结果的可解释性。